Sólo quedan unos pocos documentos sobre su vida. En 1558 está registrado como cantante en la Cappella Giulia (la Capilla Juliana) y en 1561 ya era maestro de capilla de San Luigi di Francesi; El hecho de que haya ascendido tan rápidamente a una posición tan destacada demuestra que probablemente ya era cantante antes de su mención en la Cappella Giulia. Ocupó el cargo en San Luigi di Francesi hasta 1566, y de 1567 a 1570 fue maestro de capilla en San Giovanni in Laterano, uno de los puestos musicales más prestigiosos de Roma. En 1570 fue sucedido por el francés Bartolomeo Roy, y Zoilo dejó el cargo para cantar la voz alta en el coro de la Capilla Sixtina, permaneciendo allí hasta julio de 1577, cuando renunció al cargo por enfermedad. En octubre, sin embargo, se había recuperado, por lo que el Papa Gregorio XIII le encargó, junto con Palestrina, revisar la música para la música gradual y otras músicas litúrgicas de la iglesia.

Después de su carrera en la Capilla Sixtina, Zoilo ocupó varios otros cargos, incluido el de maestro de capilla en la catedral de Todi a partir de 1581, su primer puesto documentado fuera de Roma; en 1584 ocupó un cargo similar en la Santa Casa de Loreto. Además de los diversos empleos como director de coro, estuvo relacionado con el Oratorio di SS Trinità dei Pellegrini e Convalescenti en Roma, una organización que le pagó en algunas ocasiones, quizás por composiciones. Zoilo murió en Loreto alrededor de los 55 años de edad. Su hijo Cesare Zoilo también fue un destacado compositor. No está documentado por qué Annibale abandonó su Roma natal, lugar de su éxito como cantante y director de coro, pero continuó componiendo música para la Capilla Sixtina hasta 1582.

La música de Zoilo es similar en estilo a la de Palestrina, utilizando líneas de contrapunto que fluyen suave y silenciosamente con una recitación clara del texto, con poco cromatismo experimental y elementos estructurales que se encuentran en la música napolitana o del norte de Italia contemporánea. Su música sacra es para cuatro y ocho voces e incluye misas, motetes, himnos, responsorios, letanías, sufragios y otra música vocal acapella. Además de su música sacra, publicó dos libros de madrigales. Uno de sus madrigales, Chi per voi non sospira, ganó considerable fama y se imprimió en muchas colecciones; además, fue utilizado por Vincenzo Galilei en su Fronimo: diálogo... sopra l'arte del bene intavolare en tablatura de laúd.